寻找可调谐GPU内核的最佳参数配置是一种非普通的搜索空间练习，即使在自动化时也是如此。这在非凸搜索空间上造成了优化任务，使用昂贵的来评估具有未知衍生的函数。这些特征为贝叶斯优化做好了良好的候选人，以前尚未应用于这个问题。然而，贝叶斯优化对这个问题的应用是具有挑战性的。我们演示如何处理粗略的，离散的受限搜索空间，包含无效配置。我们介绍了一种新颖的上下文方差探索因子，以及具有改进的可扩展性的新采集功能，与知识的采集功能选择机制相结合。通过比较我们贝叶斯优化实现对各种测试用例的性能，以及核心调谐器中的现有搜索策略以及其他贝叶斯优化实现，我们证明我们的搜索策略概括了良好的良好，并始终如一地以广泛的保证金更优于其他搜索策略。
translated by 谷歌翻译
本文介绍了牧羊犬：一个简单但有效的模型，用于持续学习语言如何在视野中接地。考虑到预先训练的多模式嵌入模型，其中语言和图像在同一语义空间中投影（在这种情况下通过Openai剪辑），牧灵学习一个转换功能，在需要时调整语言嵌入式以适应新的语言使用。与传统的少量学习不同，该模型不仅仅是学习新的类和标签，还可以概括与类似的语言使用。我们验证了模型对两种不同的持续学习任务的性能，并表明它可以仅从几个例子中有效地学习和概括，几乎没有干扰模型的原始零射击性能。
translated by 谷歌翻译